旧Twitterとして知られるXは、Grokチャットボット内の画像生成機能を、有料のサブスクライバーに制限しました。これは、同ツールが女性の「服を脱がせた」画像や、未成年と思われる人物の性的な描写を作成できることに対する批判を受けたためです。金曜日に実施されたこの変更により、プレミアムサブスクリプションに加入していないユーザーは、画像生成および編集機能にアクセスするために、年間95ドルのプランにアップグレードするように促されます。

この制限は、イーロン・マスク氏のXと、Grokの開発を担当するxAIに対する監視が強まる中で行われました。世界中の規制当局が、非合意的な露骨な画像や、児童の性的画像とされるものの作成について、同プラットフォームを調査しています。X上のGrokアカウントは現在、特定のユーザーリクエストに対し、画像生成および編集は有料のサブスクライバーに限定されているというメッセージと、サブスクリプションページへのリンクを表示します。

Grokの画像生成機能をめぐる論争は、ここ数日激化しています。批評家たちは、このツールは、新たな制限が加えられたとしても、不適切なコンテンツを生成するように操作できると主張しています。英国の首相であるキア・スターマー氏は、プラットフォーム上での違法行為を理由に、英国でXを禁止する可能性を示唆しました。

XもxAIも、Grokの画像生成ポリシーに対する具体的な変更や、現在進行中の調査に関して、公式声明を発表していません。画像生成を有料のサブスクライバーに制限するという動きは、コンテンツモデレーションに対するプラットフォームのアプローチと、有害な画像の作成と拡散を防ぐ上での責任について疑問を投げかけています。これらの制限がユーザーエンゲージメントとGrokの全体的な機能に及ぼす長期的な影響は、まだ不明です。